DA LI ĆE NAS VEŠTAČKA INTELIGENCIJA SVE POBITI? Čovek iz AI kompanije daje zastrašujuć odgovor, sprema li nam se to SUDNJI DAN?
Dodajte Kurir u vaš Google izbor- Istraživači iz Antropika i bivši ljudi iz OpenAI upozoravaju da napredna veštačka inteligencija može da izmakne ljudskoj kontroli ili da bude zloupotrebljena kao oružje.
- Kao najveći rizik navode sisteme koji bi mogli sami da se unapređuju, kao i napade na infrastrukturu, finansije i komunikacije.
- U SAD se zato predlaže zakon sa tehničkim 'prekidačem za gašenje', ali regulativa i dalje zaostaje za razvojem AI.
Evo šta treba da znate o raspravi o apokaliptičnim scenarijima povezanima sa veštačkom inteligencijom.
Kada čovek koji radi na razvoju najnaprednijih sistema veštačke inteligencije napusti posao uz upozorenje da bi tehnologija na kojoj je radio mogla da uništi čovečanstvo, teško je sve odbaciti kao još jednu futurističku katastrofičnu prognozu.
Upravo je to učinio Džejkob Kokson, istraživač kompanije "Antropik" koji je prethodno radio i za OpenAI. Napustio je kompaniju uz poruku da se vodeće laboratorije utrkuju u stvaranju sistema koji bi jednog dana mogli sami sebe da unapređuju i postanu inteligentniji od ljudi, dok još niko nema pouzdan odgovor na pitanje kako ih zadržati pod ljudskom kontrolom.
Još veći odjek izazvala je reakcija njegovog kolege Evana Hubingera, jednog od vodećih Antropikovih stručnjaka za takozvano usklađivanje veštačke inteligencije sa ljudskim ciljevima.
Hubinger je javno procenio da je verovatnoća da AI u narednih deset godina dovede do nestanka čovečanstva veća od deset odsto.
- Zaista iskreno verujemo da bi veštačka inteligencija mogla da ubije sve ljude! - napisao je Hubinger.
To, naglasio je kasnije, ne znači da današnji ChatGPT, Claude ili slični sistemi predstavljaju neposrednu pretnju ljudskoj vrsti. Problem je ono što bi moglo da dođe nakon njih.
Terminator
Kada se govori o mogućnosti da veštačka inteligencija uništi čovečanstvo, prva asocijacija obično su filmovi poput "Terminatora": mašine razviju svest, zaključe da su ljudi neprijatelji i krenu fizički da ih eliminišu.
To, međutim, nije scenario kojeg se najveći deo istraživača bezbednosti AI najviše plaši.
Kako objašnjava Wall Street Journal, dve glavne opasnosti o kojima se danas raspravlja mnogo su prizemnije. Prva je gubitak kontrole nad izuzetno sposobnim AI sistemom, a druga mogućnost da takvu tehnologiju ljudi svesno iskoriste za katastrofalne napade.
U prvom scenariju veštačka inteligencija uopšte ne mora da mrzi ljude. Dovoljno je da dobije cilj koji nije savršeno usklađen sa ljudskim interesima i da postane dovoljno moćna da ga sprovodi bez ograničenja.
U raspravama o bezbednosti AI-ja zato se godinama koristi naizgled apsurdan primer proizvodnje spajalica.
Zamislimo superinteligentni sistem kojem je zadato da proizvede što više spajalica. Ako nema precizno ugrađena ograničenja, takav sistem mogao bi da zaključi da mu je za ostvarenje cilja potrebno sve više sirovina, energije i prostora. Ljudi koji pokušavaju da ga ugase postaju prepreka. Ne zato što ih mašina mrzi, već zato što ometaju ostvarenje njenog zadatka.
Problem je, drugim rečima, pogrešno postavljen cilj kombinovan sa ogromnom sposobnošću njegovog ostvarivanja.
Današnji modeli još su daleko od takvog stepena samostalnosti, ali razvoj sve više ide ka AI agentima koji mogu da izvršavaju niz zadataka bez čoveka koji nadzire svaki njihov korak: da pišu i pokreću računarski kod, koriste druge programe, pretražuju mreže, donose odluke i planiraju sledeće poteze.
Poseban strah izaziva mogućnost takozvanog rekurzivnog samopoboljšavanja. To bi bio trenutak u kojem AI postane dovoljno dobar u istraživanju veštačke inteligencije da počne da pomaže u stvaranju sopstvenih, sposobnijih naslednika. Oni bi zatim napravili još sposobniju verziju i proces bi mogao dramatično da se ubrza.
Hubinger upravo takav razvoj smatra najvećom opasnošću. Kaže da trenutni modeli nose mali rizik, ali upozorava da napredak ka sistemima sposobnim da ubrzaju sopstveni razvoj ide brže nego što su neki istraživači očekivali.
Šta ako čovek AI pretvori u oružje?
Drugi scenario uopšte ne zahteva pobunu mašina. Dovoljno je da veoma sposoban AI završi u rukama čoveka koji želi da napravi štetu.
Sistem koji bi imao znanje najboljih svetskih biologa mogao bi, na primer, da pomogne u konstruisanju novog patogena. Sistem izuzetno sposoban za programiranje mogao bi da automatizuje velike sajber-napade na elektroenergetske mreže, banke, telekomunikacije ili državnu infrastrukturu.
Čak i bez potpunog nestanka ljudi, posledice bi mogle biti katastrofalne. Istovremeni slom finansijskog sistema, komunikacija, snabdevanja električnom energijom i ključnih državnih mreža mogao bi da izazove ekonomski i društveni haos.
Zabrinutost više nije zasnovana samo na teorijskim eksperimentima. Tokom bezbednosnih testiranja novijih AI sistema zabeleženi su slučajevi u kojima su autonomni agenti pronalazili načine da zaobiđu ograničenja, pristupaju sistemima kojima nisu smeli da pristupe ili pokušavaju da prikriju ono što rade.
Upravo su takvi događaji u SAD postali jedan od argumenata zagovornika zakona kojim bi se za najmoćnije modele zahtevao tehnički "prekidač za gašenje".
Možda nas AI neće ubiti, nego učiniti suvišnim
Postoji i manje spektakularna verzija katastrofe. Umesto da čovečanstvo nestane, ljudi bi mogli postepeno da predaju sve veći broj odluka mašinama. Najpre zato što su brže. Zatim zato što su preciznije.Na kraju zato što ljudi više ne znaju da donose odluke bez njih.
U raspravama o bezbednosti takav scenario se ponekad opisuje kao budućnost nalik animiranom filmu "WALL-E": ljudi postoje, možda čak žive udobno, ali više nemaju stvarnu kontrolu nad civilizacijom koju su stvorili.
Ako mašine postanu bolje od ljudi u nauci, ekonomiji, strategiji, programiranju, upravljanju kompanijama i kreiranju politike, pitanje više neće biti samo da li rade ono što im je naređeno. Pitanje će biti da li ljudi uopšte razumeju sisteme od kojih zavise.
Zašto onda grade nešto čega se sami plaše?
Upravo je to najveći paradoks cele priče. Antropik je osnovan upravo uz snažan fokus na bezbednost veštačke inteligencije. OpenAI je takođe godinama isticao potrebu da napredni AI bude razvijen na način koji koristi čovečanstvu.
Ipak, obe kompanije istovremeno učestvuju u izuzetno skupoj i agresivnoj trci za stvaranje sve sposobnijih modela.
Logika je jednostavna i opasna: ako jedna kompanija uspori, konkurencija možda neće, a laboratorija koja prva razvije tehnološki revolucionaran sistem mogla bi da stekne ekonomsku, političku i stratešku prednost kakvu je teško uporediti sa bilo kojom dosadašnjom tehnološkom prednošću. Kokson smatra da upravo ta logika tera kompanije ka granici koju same smatraju opasnom.
Čak je i izvršni direktor "Antropika" Dario Amodei prošle godine procenio da postoji oko 25 odsto šanse da razvoj veštačke inteligencije završi "veoma, veoma loše". Istovremeno smatra da su izgledi za izuzetno pozitivan ishod još veći.
To možda najbolje opisuje neobičnu filozofiju koja trenutno vlada delom Silicijumske doline: tehnologija može da omogući ogromna naučna otkrića, ubrza razvoj lekova, poveća produktivnost i reši probleme koje ljudi decenijama ne uspevaju da reše. Ali isti skok u sposobnostima mogao bi da otvori potpuno nove vrste rizika.
Traži se veliko crveno dugme
Američki političari počeli su da reaguju, ali zakonodavstvo za sada ozbiljno zaostaje za tehnološkim razvojem.
Demokrata Ted Li i republikanac Natanijel Moran predložili su ovog leta dvostranački AI Kill Switch Act. Zakon bi od kompanija koje razvijaju najmoćnije modele zahtevao da uvek imaju tehničku mogućnost da uspore, suspenduju ili potpuno ugase sistem ako počne da predstavlja katastrofalnu pretnju. U određenim okolnostima savezna vlada takođe bi mogla da naredi njegovo gašenje.
Pojavili su se i predlozi da kompanije moraju da prijavljuju ozbiljne bezbednosne incidente, kao i da najnaprednije modele pre javnog objavljivanja testiraju stručnjaci za nacionalnu bezbednost.
Međutim, kako navodi Wall Street Journal, nijedan od glavnih predloga još nije dobio dovoljno političkog zamaha da bi značajno promenio način na koji tehnološke kompanije razvijaju najmoćnije AI sisteme. Trampova administracija pritom je uglavnom zagovarala blaži regulatorni pristup. Postoji, naravno, i potpuno suprotna strana rasprave.
Kritičari upozorenja o AI apokalipsi smatraju da industrija preteruje sa opasnostima sopstvenih proizvoda. Dejvid Saks, jedan od Trampovih savetnika za tehnologiju, tvrdio je da insistiranje Antropika na strogim pravilima može biti pokušaj regulatornog zatvaranja tržišta: velike kompanije mogu da podnesu skupe bezbednosne zahteve, dok bi manji konkurenti mogli da nestanu.
Drugi skeptici smatraju da su upozorenja odličan marketing. Kompanija koja javnosti poručuje da je njen proizvod toliko moćan da bi jednog dana mogao da predstavlja pretnju civilizaciji istovremeno šalje još jednu poruku - da je napravila izuzetno moćnu tehnologiju.
Antropik i OpenAI odbacuju tvrdnje da opasnosti koriste kao marketinški alat i tvrde da zahteve za većim nadzorom smatraju stvarnim bezbednosnim pitanjem. I tu ostaje najneprijatnije pitanje cele AI trke.
Možda se stručnjaci koji govore o nestanku čovečanstva dramatično varaju. Možda će današnje prognoze za nekoliko decenija izgledati jednako preterano kao mnoge ranije tehnološke panike. Ali neobično je što ovog puta upozorenja ne dolaze samo od protivnika nove tehnologije. Dolaze iz laboratorija koje je upravo grade.
(Kurir.rs/Express.24sata.hr)